1*2813126eSlogin #pragma once
2*2813126eSlogin
3*2813126eSlogin #include <common/compiler_attributes.h>
4*2813126eSlogin
5*2813126eSlogin #define likely(x) __builtin_expect(!!(x), 1)
6*2813126eSlogin #define unlikely(x) __builtin_expect(!!(x), 0)
7*2813126eSlogin
8*2813126eSlogin #ifndef barrier
9*2813126eSlogin // 内存屏障
10*2813126eSlogin #define barrier() __asm__ __volatile__("" :: \
11*2813126eSlogin : "memory");
12*2813126eSlogin #endif
13*2813126eSlogin
14*2813126eSlogin /**
15*2813126eSlogin * @brief 编译时断言,如果condition不为1,则输出msg
16*2813126eSlogin *
17*2813126eSlogin * @param prefix 一个“不存在的函数名”的前缀
18*2813126eSlogin * @param suffix 一个“不存在的函数名”的后缀
19*2813126eSlogin */
20*2813126eSlogin #define __compiletime_assert(condition, msg, prefix, suffix) \
21*2813126eSlogin do \
22*2813126eSlogin { \
23*2813126eSlogin /** \
24*2813126eSlogin * 声明一个不存在的函数的extern,如果assert失败,就调用它,从而导致 \
25*2813126eSlogin * 链接时出错,进而达到“编译时断言”的功能。 \
26*2813126eSlogin */ \
27*2813126eSlogin __noreturn extern void prefix##suffix(void) \
28*2813126eSlogin __compiletime_error(msg); \
29*2813126eSlogin if (!(condition)) \
30*2813126eSlogin prefix##suffix(); \
31*2813126eSlogin } while (0)
32*2813126eSlogin
33*2813126eSlogin /**
34*2813126eSlogin * @brief 当condition是false时,中断编译,并输出指定的错误信息
35*2813126eSlogin *
36*2813126eSlogin * @param condition assert的情况
37*2813126eSlogin * @param msg condition为false时输出的错误信息
38*2813126eSlogin */
39*2813126eSlogin #define complietime_assert(condition, msg) \
40*2813126eSlogin __compiletime_assert(condition, msg, __compiletime_assert__, __COUNTER__)
41*2813126eSlogin
42*2813126eSlogin /**
43*2813126eSlogin * @brief 从src读取数据到dst,该过程避免编译器优化。
44*2813126eSlogin *
45*2813126eSlogin * @param dst 目标地址指针
46*2813126eSlogin * @param src 源地址指针
47*2813126eSlogin * @param size 要读取的数据大小(建议1、2、4、8字节,若不满足要求,则采用memcpy读取。)
48*2813126eSlogin */
__read_once_size(void * dst,const volatile void * src,int size)49*2813126eSlogin static __always_inline void __read_once_size(void *dst, const volatile void *src, int size)
50*2813126eSlogin {
51*2813126eSlogin switch (size)
52*2813126eSlogin {
53*2813126eSlogin case 1:
54*2813126eSlogin *(__u8_alias_t *)dst = *(volatile __u8_alias_t *)src;
55*2813126eSlogin break;
56*2813126eSlogin case 2:
57*2813126eSlogin *(__u16_alias_t *)dst = *(volatile __u16_alias_t *)src;
58*2813126eSlogin break;
59*2813126eSlogin case 4:
60*2813126eSlogin *(__u32_alias_t *)dst = *(volatile __u32_alias_t *)src;
61*2813126eSlogin break;
62*2813126eSlogin case 8:
63*2813126eSlogin *(__u64_alias_t *)dst = *(volatile __u64_alias_t *)src;
64*2813126eSlogin break;
65*2813126eSlogin default:
66*2813126eSlogin barrier();
67*2813126eSlogin __builtin_memcpy((void *)dst, (const void *)src, size);
68*2813126eSlogin barrier();
69*2813126eSlogin break;
70*2813126eSlogin }
71*2813126eSlogin }
72*2813126eSlogin
73*2813126eSlogin /**
74*2813126eSlogin * @brief 把src处的数据到dst,该过程避免编译器优化。
75*2813126eSlogin *
76*2813126eSlogin * @param dst 目标地址指针
77*2813126eSlogin * @param src 源地址指针
78*2813126eSlogin * @param size 要写入的数据大小(建议1、2、4、8字节,若不满足要求,则采用memcpy传输。)
79*2813126eSlogin */
__write_once_size(volatile void * dst,void * src,int size)80*2813126eSlogin static __always_inline void __write_once_size(volatile void *dst, void *src, int size)
81*2813126eSlogin {
82*2813126eSlogin switch (size)
83*2813126eSlogin {
84*2813126eSlogin case 1:
85*2813126eSlogin *(volatile __u8_alias_t *)dst = *(__u8_alias_t *)src;
86*2813126eSlogin break;
87*2813126eSlogin case 2:
88*2813126eSlogin *(volatile __u16_alias_t *)dst = *(__u16_alias_t *)src;
89*2813126eSlogin break;
90*2813126eSlogin case 4:
91*2813126eSlogin *(volatile __u32_alias_t *)dst = *(__u32_alias_t *)src;
92*2813126eSlogin break;
93*2813126eSlogin case 8:
94*2813126eSlogin *(volatile __u64_alias_t *)dst = *(__u64_alias_t *)src;
95*2813126eSlogin break;
96*2813126eSlogin default:
97*2813126eSlogin barrier();
98*2813126eSlogin __builtin_memcpy((void *)dst, (const void *)src, size);
99*2813126eSlogin barrier();
100*2813126eSlogin break;
101*2813126eSlogin }
102*2813126eSlogin }
103*2813126eSlogin
104*2813126eSlogin /**
105*2813126eSlogin * 这两个宏能够避免编译器重排序、合并涉及到的读写操作,从而避免由于编译器优化导致的多线程读写顺序错误。
106*2813126eSlogin * 通过将有顺序要求的两个读/写操作放置在READ_ONCE()和WRITE_ONCE()之中,能够让编译器知道这些操作具有顺序要求。
107*2813126eSlogin *
108*2813126eSlogin * 这两个宏同样适用于Union或struct。如果要访问的数据大小不是1、2、4、8字节,则会使用memcpy来处理。
109*2813126eSlogin *
110*2813126eSlogin * 这两个宏的主要使用场景:
111*2813126eSlogin * 1.两个进程或者中断处理函数之间的信息交流与沟通
112*2813126eSlogin * 2.确保编译器不会折叠、旋转或以其他方式对代码进行优化,从而破坏数据访问顺序。
113*2813126eSlogin *
114*2813126eSlogin * 这两个宏的union __u内的__c用作这个union的地址的指针
115*2813126eSlogin *
116*2813126eSlogin * 关于READ_ONCE和WRITE_ONCE的简单说明,请转到:https://bbs.dragonos.org/forum.php?mod=viewthread&tid=24
117*2813126eSlogin */
118*2813126eSlogin
119*2813126eSlogin /**
120*2813126eSlogin * @brief 读取变量x (避免编译器优化)
121*2813126eSlogin */
122*2813126eSlogin #define READ_ONCE(x) \
123*2813126eSlogin ({ \
124*2813126eSlogin union \
125*2813126eSlogin { \
126*2813126eSlogin typeof(x) __val; \
127*2813126eSlogin char __c[1]; \
128*2813126eSlogin } __u = {.__c = {0}}; \
129*2813126eSlogin __read_once_size(__u.__c, &(x), sizeof(x)); \
130*2813126eSlogin __u.__val; \
131*2813126eSlogin })
132*2813126eSlogin
133*2813126eSlogin /**
134*2813126eSlogin * @brief 将val写入变量x (避免编译器优化)
135*2813126eSlogin */
136*2813126eSlogin #define WRITE_ONCE(x, val) \
137*2813126eSlogin ({ \
138*2813126eSlogin union \
139*2813126eSlogin { \
140*2813126eSlogin typeof(x) __val; \
141*2813126eSlogin char __c[1]; \
142*2813126eSlogin } __u = {.val = (val)}; \
143*2813126eSlogin __write_once_size(&(x), __u.__c, sizeof(x)); \
144*2813126eSlogin __u.__val; \
145*2813126eSlogin })
146